RouteWeaver：将模式选择与执行编织进统一 LLM 路由
🧭 LLM 路由 · 模式选择与执行联合优化
Nanyang Technological University · Huazhong University of Science and Technology · University of Illinois Urbana-Champaign
统一 LLM 路由框架，联合学习执行模式与模型选择，COMET-GRPO 分层信用分配+渐进式探索，五领域平均准确率提升 11.03%
📌 工作参考价值（3 点）
- 在构建 LLM 路由/调度层时，不要把执行模式（单次调用、多轮、Agentic）写死，可用一个策略联合选择模式与模型；在电商搜索/客服 query 复杂度差异大时，让策略学会按需降级或升级，能平衡成本与效果。
- COMET-GRPO 的信用分配思路可迁移：如果路由器需要同时决定“调用哪个工具/模型”和“用几步完成”，将整体奖励分解为模式级和步骤级优势信号，能缓解稀疏奖励导致策略坍缩；在 Agent 编排中分别奖励“是否选择 Agent 模式”和“Agent 内模型选择”，可避免只选单轮或只选多轮。
- Progressive exploration 类似课程学习：先用规则/预设模式训练执行能力，再放开让策略自主选择；在业务中可用固定策略冷启动或基于历史数据预训练路由，再逐步切换到在线强化学习，防止早期策略坍缩到某个低风险模式（如全部走单轮）。
智能体市场中一价拍卖的无政府代价
🧭 Agentic market 拍卖机制与效率 ★ 深度解读
Google DeepMind · Google Research
证明竞争底线与近似条件独立使一价拍卖在智能体市场中福利损失远低于最坏情况，并用 EmbedLLM 仿真验证。
📌 工作参考价值（4 点）
- 在 LLM 路由/多模型服务中，一价拍卖简单透明，若模型能力接近（竞争底线），福利损失极小；可替代复杂的 VCG 机制。
- 平台可引入自有模型作为 reserve price 或预过滤弱模型，主动提升竞争底线，保护分配效率。
- 将模型价值定义为 expected quality - inference cost，用 prompt embedding 聚类/条件化可以近似条件独立，降低 bid shading。
- EmbedLLM 实验显示 FPA 达到 99.2% 最优福利，远高于固定路由 best-per-cluster 的 89.4%，动态竞价在多模型路由中有实际收益。
MemPilot：按需多模态记忆编排的 LLM Agent 框架
🧭 Agent 多模态记忆按需编排与模型路由 ★ 深度解读
Nanyang Technological University · Tsinghua University · University of Illinois Urbana-Champaign
用 RL 多步策略按需编排记忆检索与异质 LLM/VLM 策展，实现质量-成本-延迟可控折衷
📌 工作参考价值（4 点）
- 借鉴双视图记忆：保留 query-agnostic 压缩记忆库用于低成本检索，同时保留原始多模态历史用于按需精调，避免离线压缩丢细节；电商 Agent 里可以兼容现有长会话记忆系统，不推翻重建。
- 将「是否调用视觉/大模型」设为策略动作，把模型池中的 LLM/VLM 按成本和延迟画像暴露给 orchestrator，让 RL 学会按 query 难度和预算动态路由；推荐/搜索 Agent 里可把通用问答降级到小模型，把商品图片理解、多轮用户偏好抽取路由到 VLM。
- 用 objective-wise advantage decoupling 做多目标 RL：质量、成本、延迟分别组内归一化再按偏好加权，比合并 reward 更稳定；业务中若要同时优化转化率、token 成本和响应耗时，可复用该 trick。
- 延迟不用墙钟时间，改用固定系数仿射估计（fixed overhead + per-token input/output + per-image），避免 API 波动影响训练；线上部署时也可用此 proxy 做策略训练或仿真。
REFLEX 结合 Jev 实现 LLM 智能体的高效选择性控制
🧭 Agent 选择性控制与强模型调用优化
Nanyang Technological University
REFLEX 用 Jev 做快速类型决策层，低置信或需生成时调强 LLM，100 任务基准上 95% 成功并减少 72.7% 强模型调用
📌 工作参考价值（4 点）
- 架构拆分：在电商导购/广告投放 Agent 中，把“选哪个工具、参数是否合法、是否继续”等有限集合决策从生成式 LLM 中剥离，用轻量分类器或 Jev 类模型先做 typed decision；仅当置信度低于阈值或需要自由文本生成时再调用强模型，可省 70%+ 强模型调用，降低延迟与成本。
- 回退设计：对边界场景（如退款/价格修改等高风险动作）要保守，即便轻量模型置信度不低，也设置 authorization boundary 附近强制回退或人工/强模型复核；因为论文显示授权边界附近的 near-valid alternatives 是主要失败来源。
- 动作空间控制：候选工具/动作数量不要过大，尽量合并语义相近的 action；论文指出可靠性依赖 action-set size，过大会削弱 Jev 选择质量，可先在业务数据上测 action-set size 的影响曲线。
- 先做基线：如果已有便宜生成式模型（如 GPT-4o mini/Gemini Flash）的 cascade 路由准确率已经很高，typed decision layer 可能收益有限；建议先做离线对比实验，再决定是否引入 Jev，而不是直接上。
ProgRouter：质量-成本权衡下多智能体 LLM 工作流的在线进度引导编排
🧭 多 Agent LLM 工作流在线路由编排 ★ 深度解读
Aston University · Queen Mary University of London · University of Exeter
面向多智能体 LLM 工作流，提出在线进度引导路由，逐步选择大小模型以在预算内保持任务质量
📌 工作参考价值（4 点）
- 多智能体工作流不要一次性 query 级路由，而应在每一步根据当前状态重估进度增益，用小模型处理常规步骤、大模型只处理关键卡点；电商客服/商品调研/推荐解释等 agent pipeline 可直接套用这种 step-wise routing。
- 用 multi-view progress scorer 把中间 workflow state 转化为 coarse regime + 子任务完成度/趋势/状态质量，能作为轻量 domain adapter。推荐/搜索场景可定义类似 milestone 信号（如召回完成率、排序置信度、引用覆盖）指导 LLM 调用。
- 虚拟队列 + 指数预算惩罚很实用：通过 Lyapunov virtual queue 跟踪长期平均成本，并用 exp(已消耗预算) 惩罚后续高成本调用，避免前期耗尽大模型配额；可直接迁移到广告竞价 / Agent 调用成本治理。
- 结构化特征与语义 embedding 双路径预测 + meta-gating + 在线 epsilon-greedy 探索更新，冷启动无需离线标注数据，适合业务中缺乏路由标注的 Agent 系统快速上线并逐渐稳定。
丰富-检索-排序：超越上下文路由的规模化能力发现
🧭 Agent 能力发现 · 检索-重排 ★ 深度解读
Amazon AGI
将 Agent 能力发现重构为离线丰富+在线检索-重排，在 7,278 个工具上以约一半成本领先 Search&Pick 6.5pp，并比全量上下文便宜 70 倍
📌 工作参考价值（4 点）
- 如果业务里要用 LLM 从上千个 API/agent/tool 中选调用，不要让它读全量 registry：改为 BM25+dense 召回 top-15，再单次 LLM listwise rerank。这样成本与 registry 规模解耦；Nova Micro 扫描显示单阶段全量路由在 N≈500 后崩，可作为架构切换的经验阈值。
- 离线把稀疏的 item/tool 元数据改写成结构化 profile（summary、action-led description、keywords、正/负 usage examples）一次完成，供检索和 reranker 共用。干净公开数据上 enrichment 无收益（甚至 -4.4pp），但元数据只剩 name 时 Match@1 +25.6pp、Recall@15 0.134→0.467；先评估自家商品/工具 metadata 稀疏度再决定是否上。
- 做错误归因：约70%的大规模 miss 在 retrieval，换更强 reranker 只 +3pp。优先提升一阶段召回（hybrid、更好 dense encoder、字段加权）而不是继续优化 reranker prompt。
- 打分信号可设计成可插拔加权：LLM 0.50 + BM25 0.05 + Quality 0.30 + Intent 0.15，字段缺失自动 renormalize；在有 trust/type 元数据时 Quality+Intent 额外 +4.5pp。这种统一配置可以跨 tools/agents/skills 复用，避免每种能力单独调参。
Agora：基于拍卖机制的LLM智能体推理任务分配框架
🧭 拍卖机制驱动的多智体任务分配优化 ★ 深度解读
University of Birmingham
通过校准置信度的拍卖机制，将复杂推理任务动态分配给最合适的专家模型，实现成本-质量可控。
📌 工作参考价值（4 点）
- 将推理流水线分解为子任务，以校准后的置信度作为出价基础，通过拍卖动态选择最优专家模型/工具，适合电商搜索、推荐系统中的多模型路由，有效降低推理成本并避免过度自信导致的错误分配。
- 校准策略（分组缩放+直方图分箱+在线自适应）可直接复用：先用静态校准器在多样化数据上消除原始模型置信度的系统性偏差，再用在线更新适配业务特有分布，确保模型选择基于真实能力而非幻觉。
- 成本敏感参数β提供直接的成本-质量调节旋钮，可在不同流量层级或业务优先级下灵活切换：Quality-First、Balanced、Cost-Efficient三种预设模式无需重新训练，适合成本敏感的线上服务。
- 框架与规划器解耦，可作为可插拔的分配层加入现有Multi-Agent系统，不侵入内部模型，也能集成数据集提供的分解步骤或基于LLM生成的依赖图，对搜索、Agent系统的容错调度有借鉴意义。